Shapley 値
Shapley value
シャープレイ値 - Wikipedia
player$ i_{\in N}の Shapley 値$ \phi_i(v)とは$ \phi_i(v)=\sum_{C\subseteq N\setminus\{i\}}\frac{|C|!(n-|C|-1)!}{n!}(v(C\cup\{i\})-v(C))
提携形 game$ G=(N,v)
player の集合$ N
特性函數$ v:2^N\to\R。但し以下を滿たす
$ v(\varnothing)=0
優加法性。$ S,T\subseteq N,$ S\cap T=\varnothingならば$ v(S\cup T)\le v(S)+v(T)
Shapley 値は以下を滿たす唯一の値である
個人合理性。$ \phi_i(v)\ge v(\{i\})
個人合理性 - Wikipedia#ゲーム理論における個人合理性
全體合理性 (paretiana 效率的)。$ \sum_{i\in N}\phi_i(v)=v(N)
賣り上げを無駄無く分配する
對稱性
任意の$ S\subseteq N\setminus\{i,j\}に對して$ v(S\cup\{i\})=v(S\cup\{j\})ならば$ \phi_i(v)=\phi_j(v)
$ \sigmaを$ |N|次の置換として、$ \phi_{\sigma(i)}(\sigma;v)=\phi_i(v)
同じ働きをした player には同じ報酬を拂ふ
加法性。game$ (N,v)と$ (N,w)について$ \phi_i(v+w)=\phi_i(v)+\phi_i(w)
仕事を分割して行っても一括して行っても報酬は變はらない
$ iが null player である (任意の$ S\subseteq N\setminus\{i\}に對して$ v(S\cup\{i\})=v(S)) ならば$ \phi_i(v)=0
ゐなくても同じである player に報酬は拂はれない
應用
Shapley-Shubik 投票力指數 (Shapley-Shubik power index)
シャープレイ=シュービック投票力指数 - Wikipedia
SHAP (Shapley additive explanations)
Welcome to the SHAP documentation — SHAP latest documentation
SHAP (Shapley additive explanations) は、あらゆる機械學習モデルの出力結果を說明するための game 理論的アプローチである。これは game 理論における古典的な Shapley 値とその關聯擴張手法を用いて、最適なクレジット配分と局所的な說明可能性を結びつけるものである (詳細な理論と引用文獻については關聯論文を參照のこと)。
shap/shap: A game theoretic approach to explain the output of any machine learning model.
shap · PyPI
SHAPとは - IT用語辞典 e-Words
Shapley Additive Explanations — InterpretML documentation
SHAP (Shapley additive explanations) は、game 理論に基づく Shapley 値を用ゐて、あらゆるモデルの出力結果を解釋可能なフレームワークである。この手法は最適なクレジット配分を行う際に頻繁に用ゐられるアプローチであり、ブラックボックス型モデル全般に適用可能である。ただし、特定のモデルクラス (例えばツリーアンサンブルモデル) に對しては、より效率的に計算を實行できる。これらの最適化は特に大規模データ處理において重要となる。最適化されたモデルクラスでは多數の SHAP (Shapley additive explanations) 値を計算することが現實的である一方、モデル非依存の設定では相對的に處理速度が遲くなる傾向がある。SHAP (Shapley additive explanations) 値はその加法的性質により、個々の (局所的な) SHAP (Shapley additive explanations) 値を集約してグローバルな說明を生成することも可能である。SHAP (Shapley additive explanations) は、モデル監視、公平性評價、コホート分析など、より高度な機械學習分析の基盤として活用することができる。
說明變數の寄與を Shapley 値 (の擴張) として計算する
機械學習でなくても、相關關係よりも高度な分析として使へる
≠LIME (local interpretable model-agnostic explanations)